Type: concept
Confidence: 0.95
Created: 2026-04-18
Updated: 2026-04-18
Tags: 机器学习深度学习序列建模

输出门(Output Gate)

概述 (50-200字符)

LSTM 三个门之一,决定从细胞状态输出什么信息作为隐藏状态。公式 oₜ = σ(Wo·[hₜ₋₁, xₜ] + bo),hₜ = oₜ ⊙ tanh(Cₜ),控制当前时刻对外暴露的信息。

关键内容 (≥300字符, 用双链)

  1. 数学公式:oₜ = σ(Wo · [hₜ₋₁, xₜ] + bo),使用 Sigmoid激活函数 输出 [0, 1];hₜ = oₜ ⊙ tanh(Cₜ),将细胞状态通过 tanh 压缩后再由输出门过滤。
  2. 功能直觉输出门决定当前时刻的隐藏状态 hₜ 应该包含 细胞状态(Cell State) 中的哪些信息。在语言模型中,当需要预测下一个词时,输出门会输出与当前上下文相关的隐藏状态。oₜ 接近 1 时充分暴露细胞状态信息,接近 0 时隐藏信息。
  3. 细胞状态的关系输出门不修改细胞状态本身,而是控制细胞状态的"可见性"。细胞状态 Cₜ 可以存储大量信息,但每个时刻只通过输出门暴露相关部分给外部(hₜ)和下一层网络。
  4. 三門协作输出门遗忘门(Forget Gate)输入门(Input Gate) 共同构成 LSTM 的门控体系。遗忘门控制"记住什么",输入门控制"写入什么",输出门控制"输出什么",三者协同实现精确的序列建模。

来源

相关